Có cảm hứng từ Tướng Charles de Gaulle, Chirac bắt đầu theo đuổi một sự nghiệp phục vụ dân sự trong thập niên 1950. Trong giai đoạn này, ông gia nhập Đảng Cộng sản Pháp, bán báo L'Humanité, và tham gia vào các cuộc họp của một chi bộ cộng sản.[5] Năm 1950, ông ký Yêu cầu Stockholm có ảnh hưởng của Liên Xô yêu cầu xoá bỏ vũ khí hạt nhân– khiến ông bị chất vấn khi xin visa đầu tiên vào Hoa Kỳ.[6] Năm 1953, sau khi tốt nghiệp "Sciences Po", ông theo học trường mùa hè của Đại học Harvard trước khi vào École Nationale d'Administration (ENA), Grande école nơi dạy các nhân viên dân sự cao cấp nhất của Pháp, năm 1957.

Chirac đã được huấn luyện để trở thành sĩ quan dự bị tại kỵ binh thiết giáp ở Saumur.[7] Sau đó ông tình nguyện tham gia Chiến tranh Algeria, và được gửi tới đó dù những thượng cấp của ông có sự e dè. Họ không muốn ông trở thành một sĩ quan bởi nghi ngại tư tưởng cộng sản của ông.[8]

Sau khi rời ENA năm 1959, ông trở thành một nhân viên dân sự tại toà án Auditors. Tháng 4 năm 1962, Chirac được chỉ định làm lãnh đạo bộ máy nhân viên của Thủ tướng Georges Pompidou. Sự chỉ định này đã khởi đầu sự nghiệp chính trị của Chirac. Pompidou coi Chirac là người được bảo hộ của mình và gọi ông là "chiếc xe ủi của tôi" vì trình độ giải quyết công việc của ông. Tên hiệu "Chiếc xe ủi" đã được sử dụng trong giới chính trị Pháp. Chirac vẫn duy trì danh tiếng này. Năm 1995 một nhà ngoại giao ẩn danh người Anh nói Chirac "bỏ qua các tiểu tiết và đi thẳng tới vấn đề...Nó dễ chịu, dù bạn phải đeo dây an toàn khi làm việc với ông ta".[cần dẫn nguồn] Theo đề nghị của Pompidou, Chirac tranh cử theo phái de Gaulle vào một ghế trong Quốc hội năm 1967. Ông được bầu làm đại diện cho khu vực Corrèze quê hương, một cứ điểm mạnh của cánh tả. Thắng lợi đáng ngạc nhiên trong bối cảnh phe de Gaulle đang mất uy thế cho phép ông được vào chính phủ và trở thành Bộ trưởng các Vấn đề Xã hội. Dù Chirac có vị trí vững chắc trong phái de Gaulle, có quan hệ theo hôn nhân với người bạn duy nhất của vị tướng ở thời điểm Đề nghị ngày 18 tháng 6 năm 1940, thực tế ông là "người phe Pompidou" hơn là một "người phe de Gaulle".

Khi cuộc bất ổn của công nhân và sinh viên là chấn động nước Pháp tháng 5 năm 1968, Chirac đóng vai trò then chốt trong quá trình đàm phán. Sau đó, với tư cách thư ký nhà nước phụ trách kinh tế (1968–1971), ông đã làm việc thân cận với Valéry Giscard d'Estaing, người lãnh đạo bộ kinh tế và tài chính. Sau vài tháng ở bộ quan hệ nghị viện, chức vụ cao cấp đầu tiên của Chirac tới năm 1972 khi ông trở thành Bộ trưởng Nông nghiệp và phát triển nông thôn dưới quyền Pompidou, được bầu làm tổng thống năm 1969. Chirac nhanh chóng trở nên nổi tiếng như một nhà vô địch của các lợi ích của nông dân Pháp, và lần đầu tiên thu hút sự chú ý quốc tế khi ông tấn công các chính sách nông nghiệp của Hoa Kỳ, Tây Đức, và Hội đồng châu Âu vốn xung đột với các lợi ích của Pháp. Ngày 27 tháng 2 năm 1974, sau cuộc từ chức của Raymond Marcellin, Chirac được chỉ định làm Bộ trưởng Nội vụ. Ngày 21 tháng 3 năm 1974, ông huỷ bỏ dự án SAFARI vì các lo ngại về quyền riêng tư sau khi tờ Le Monde phát hiện ra nó. Từ tháng 3 năm 1974, ông được Tổng thống Pompidou giao phó chỉ huy chiến dịch tranh cử tổng thống dự định diễn ra vào năm 1976. Tuy nhiên, cuộc bầu cử đã diễn ra sớm hơn vì cái chết bất ngờ của Pompidou vào ngày 2 tháng 4.

Chirac đứng sau nỗ lực vô vọng tập hợp những người phái de Gaulle phía sau Thủ tướng Pierre Messmer. Jacques Chaban-Delmas thông báo tư cách ứng cử viên của mình dù có sự bác bỏ của "phải Pompidou". Chirac và những người khác xuất bản kêu gọi của 43 ủng hộ Giscard d'Estaing, lãnh đạo phái không de Gaulle trong nghị viện đa số. Giscard d'Estaing được bầu làm người kế nhiệm Pompidou sau một chiến dịch tranh cử có tính cạnh tranh nhất trong nhiều năm. Đối lại, vị tổng thống mới chọn Chirac lãnh đạo chính phủ.